Azmin dilahirkan di Singapura (yang ketika itu masih berada dalam Malaysia) pada 25 Ogos 1964 dan merupakan abang kepada pengacara televisyen yang penuh kontroversi iaitu Azwan Ali dan Ummi Hafilda Ali.

Bapanya Ali dan ibunya Hajjah Che Tom Yahaya menetap di Kampung Klang Gate, Taman Melawati, Ulu Klang, Selangor. Adik beradiknya termasuklah Azwan Ali (pelakon, pengacara) dan Arpah Ali (pakar motivasi). Azmin menerima pendidikan awalnya di Sekolah Gurney Road (2) Kuala Lumpur dari tahun 1971 hingga 1976. Selepas itu beliau menerima pendidikan menengah di Sekolah Menengah Setapak, Kuala Lumpur (1977-1979) dan Institut Teknikal, Jalan Cheras, Kuala Lumpur (1980-1981). Pada tahun 1982, beliau melanjutkan pelajaran di Universiti Minnesota di Amerika Syarikat dan berjaya menggulung ijazah dalam bidang matematik dan ekonomi pada 1987. Selanjutnya beliau menyambung sarjana dalam pendidikan (matematik dan ekonomi) di universiti yang sama.

Sekembalinya ke Malaysia pada tahun 1987, Azmin dilantik menjadi Pegawai Khas kepada Anwar Ibrahim yang pada masa itu adalah Menteri Pendidikan. Azmin kemudian dinaikkan pangkat kepada Setiausaha Peribadi kepada Menteri Pendidikan dan sehinggalah pada masa Anwar dipecat daripada jawatan Timbalan Perdana Menteri.

Azmin mendirikan rumah tangga bersama Shamsidar Taharin pada 7 Ogos 1988 yang juga belajar di universiti yang sama di Amerika Syarikat. Pasangan ini mempunyai enam orang anak.

Azwan Ali pernah membuat ugutan bunuh terhadap adiknya Umi Hafilda menerusi Twitter. Pada 13 Januari 2012, Ummi membuat laporan polis di Balai Polis Taman Tun Dr Ismail. Ketua Polis Petaling Jaya, Arjunaidi Mohamad mengklasifikasikan kes itu di bawah Seksyen 506 Kanun Cara Jenayah. Akhirnya Azwan dan Umi Hafilda berdamai.[1]